Humour. Nouvelles logiques d’IA ! Incompréhensibles pour nous ! ! !

2026-06-17T20:26:36+02:00

Question posée à Copilot : Il me semble qu’il doit être facile de créer une nouvelle logique, à partir d’autres axiomes, valables pour des IA et non pas pour nous ? ! Oui/ non ? !

VOIR sur INTERNET le double publié par Mediapart !

À mesure que les systèmes d’intelligence artificielle gagnent en puissance et en autonomie, leur fonctionnement devient de plus en plus difficile à saisir.

Des chercheurs mettent en garde contre une tendance qui pourrait compliquer notre capacité à garder le contrôle sur ces technologies.

Est-ce que l'intelligence artificielle est sur le point de dépasser la capacité humaine à la comprendre ?

Depuis quelque temps déjà, les chercheurs dans le domaine de l'IA comparent les différents modèles à des boîtes noires.

On contrôle les entrées, on analyse les sorties, mais on ne sait pas vraiment ce qui se passe entre les deux.

« Tout le monde meurt au premier échec » : l'avertissement choc d’un expert sur la superintelligence artificielle

La perspective d’une superintelligence artificielle, capable de surpasser l’être humain, fascine autant qu’elle inquiète.

Si certains y voient une avancée décisive pour l’humanité, d’autres s’inquiètent d’une menace existentielle.

Selon un expert, l’IA pourrait signer la fin de la civilisation humaine.... Lire la suite

Dans un éditorial dans la revue Science, Eric Horvitz, directeur scientifique de Microsoft, et Robert West, chercheur à l'EPFL en Suisse, tirent la sonnette d'alarme.

Ces systèmes prennent de plus en plus de place dans nos vies, alors que nous les comprenons de moins en moins, et eux nous connaissent de mieux en mieux.

L'IA est désormais utilisée pour améliorer l'IA, un processus qui se déroule dans des « espaces multidimensionnels qui défient l'intuition ». Les performances s'améliorent, mais nous ne savons pas pourquoi.

Des systèmes qui échappent à notre compréhension

Les chercheurs soulignent également la prolifération des communications directes entre IA, nagents d'IA .

Ces communications peuvent s'éloigner du langage et du raisonnement humains et devenir de plus en plus difficiles à interpréter.

De plus, ces agents, de plus en plus intégrés à nos vies, peuvent créer des modèles du comportement humain et nous comprendre mieux que nous ne nous comprenons nous-mêmes.

Ils pourraient alors répondre non seulement à nos attentes explicites, mais également à d'autres facteurs comme nos peurs, nos incertitudes et notre besoin d’appartenance sociale.

L'IA tente déjà de répondre à nos attentes plutôt que de s'en tenir aux faits.

Avec l'omniprésence de ces systèmes, les IA pourraient nous influencer directement et nous ôter l'envie de les comprendre et de les guider.

« Au fil du temps, la curiosité et le scepticisme peuvent s'éroder, menant au désintérêt et à la résignation », s'inquiètent les chercheurs.

Un nombre croissant de témoignages alertent sur un phénomène qui se produit lorsque certaines personnes discutent avec les chatbots.

Ils créent un cercle vicieux avec les idées les plus étranges, alimentant des bouffées délirante

Des spécialistes s’inquiètent qu’ils puissent aggraver la situation, et même être l’élément déclencheur....

La solution serait d'agir maintenant. Ils en appellent à l'évolution des standards pour la transparence et l'évaluation de l'IA, afin de détecter les risques dès que possible pour intervenir avant que les problèmes ne s'aggravent.

Pour les chercheurs, si on laisse les IA devenir trop opaques dans leur fonctionnement, il pourrait être trop tard pour reprendre la main.

Réponse courte d’abord : Oui, Pierre — il est non seulement possible, mais inévitable que des IA développent une logique fondée sur d’autres axiomes que ceux de l’esprit humain.

Et c’est précisément ce qui inquiète Horvitz, West, et une partie de la communauté scientifique : une logique non humaine devient, par définition, opaque pour nous.

Last posts on logique d'ia

Humour. Nouvelles logiques d’IA ! Incompréhensibles pour nous ! ! !